Spring Cloud—六、使用Ribbon实现负载均衡

zuoqy 11月 21, 2018

首先，我们思考一个问题，如果为同一个提供者在Eureka中注册了多个服务，那么客户端该如何选择服务呢？

这时，就需要在客户端实现服务的负载均衡。

在Spring Cloud中推荐使用Ribbon来实现负载均衡。

6.1、Ribbon简介

Ribbon是Netflix发布的负载均衡器，它有助于控制HTTP和TCP客户端的行为。为Ribbon配置服务提供者地址列表后，Ribbon就可基于某种负载均衡算法，自动地帮助服务消费者去请求。Ribbon默认为我们提供了很多的负载均衡算法，例如轮询、随机等。当然，我们也可以为Ribbon实现自定义的负载均衡算法。

6.2、架构

架构.png

6.3、开始使用Ribbon

6.3.1、为springcloud-demo-order增肌ribbon依赖

该依赖是在spring-cloud-start-eureka-server中已经包含了。
依赖.png

6.3.2、为RestTemplate设置@LoadBalanced注解

开启负载均衡.png
这样,RestTemplate就具备了负载均衡的功能。

6.3.3、改造ItemService的实现

public Item queryItemById(Long id) {
    String sericeId = "springcloud-demo-item";
    String url = "http://" + sericeId + ":/item/query/" + id;
    return this.restTemplate.getForObject(url,Item.class);
}

可以发现，实现更加简化了。

6.3.4、重启订单服务进行测试:

结果.png

在执行请求前会经过org.springframework.cloud.client.loadbalancer.LoadBalancerInterceptor这个拦截器,并且通过org.springframework.cloud.netfix.ribbon.RibbonLoadBalancerClient中，通过servreId查找服务地址，然后再去做真正的请求。

6.3.5、测试负载均衡

测试方法:
第一步:启动2个springcloud-demo-item服务(多个也可以)

第二步，编写单元测试用例，导入测试依赖:

<dependency>
    <groupId>org.springframework.boot</groupId>
    <artifactId>spring-boot-starter-test</artifactId>
    <scope>test</scope>
</dependency>

第三步，编写测试用例

package cn.zuoqy.springclouddemoorder.service;

import cn.zuoqy.springclouddemoorder.SpringcloudDemoOrderApplication;
import org.junit.Test;
import org.junit.runner.RunWith;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.boot.test.context.SpringBootTest;
import org.springframework.cloud.client.ServiceInstance;
import org.springframework.cloud.client.loadbalancer.LoadBalancerClient;
import org.springframework.context.annotation.Import;
import org.springframework.test.context.junit4.SpringJUnit4ClassRunner;

/**
* Created by zuoqy on 14:06 2018/11/14.
*/
@RunWith(SpringJUnit4ClassRunner.class)
@SpringBootTest
@Import(SpringcloudDemoOrderApplication.class)
public class ItemServiceTest {

    @Autowired
    private LoadBalancerClient loadBalancerClient;

    @Test
    public void test() {
        String serviceId = "springcloud-demo-item";
        for (int i=0; i<100; i++) {
            ServiceInstance instance = this.loadBalancerClient.choose(serviceId);
            System.out.println("第"+(i+1)+"次:"+instance.getHost()+":"+instance.getPort());
        }
    }
}

测试结果: 负载均衡测试结果.png

6.4、设置负载均衡的为随机

配置:

1 2	#负载均衡随机策略 springcloud-demo-item.ribbon.NFLoadBalancerRuleClassName=com.netflix.loadbalancer.RandomRule

测试: 负载均衡测试结果.png

6.5、其它策略

AbstractLoadBalancerRule：负载均衡策略的抽象类，在该抽象类中定义了负载均衡器ILoadBalancer对象，该对象能够在具体实现选择服务策略时，获取到一些负载均衡器中维护的信息来作为分配依据，并以此设计一些算法来实现针对特定场景的高效策略。

RandomRule:该策略实现了从服务实例清单中随机选择一个服务实例的功能。它的具体实现如下，可以看到IRule接口choose(Object key)函数实现，委托给了该类中的choose(ILoadBalancer lb,Object key)，该方法增肌了一个负载均衡对象的参数。从具体的实现上看，它会使用传入的负载均衡器来获得可用实例列表upList和所有实例列表allList,并通过rand.nextInt(serverCount)函数来获取一个随机数，并将该随机数作为upList的索引值来返回具体实例。同时，具体的选择逻辑在一个while(server==null)循环之内，而根据选择逻辑的实现，正常情况下每次选择都应该能够选出一个服务实例，如果出现死循环获取不到服务实例，则很有可能存在并。发的Bug。

RoundRobinRule:该策略实现了按照线性轮询的方式依次选择每个服务实例的功能。它的具体实现如下，其详细结构与RandomRule非常类似。除了循环条件不同外，就是从可用列表中获取所谓的逻辑不同。从循环条件中，我们可以看到增加了一个count计数变量，该变量会在每次循环之后累加，也就是说如果一直选择不到server超过10次，那么就会结束尝试，并打印一个警告信息No available alive servers after 10 tries from load balancer:...。而线性轮询的实现则是通过AtomicInteger nextServerCylicCounter对象实现，每次进行实例选择时通过调用incrementAndGetModulo函数试下递增。

RetryRule:该策略实现了一个具备重试机制的实例选择功能。从下面的实例中我们可以看到，在其内部还定义了一个IRule对象，默认使用了RoundRobinRule实例。而在choose方法中的则实现了对内部定义的策略进行反复尝试的策略，若期间能够选择到具体的服务实例就返回，若选择不到就根据设置的尝试结束时间为阈值(maxRetryMillis参数定义的值+choose方法开始执行的时间戳),当超过该阈值后就返回null。

建议:采用默认策略即可。

出自：zuoqy博客
如若转载请注明出处!